Việc thiết kế lớp thiết giáp hạm Yamato được hình thành do xu hướng bành trướng của chính phủ Nhật Bản, các thế lực công nghiệp Nhật Bản, và nhu cầu về một hạm đội đủ mạnh để đe dọa các lực lượng chống đối có thể có.[9]

Trong những năm 1930, giới cầm quyền Nhật Bản bắt đầu chuyển sang chủ nghĩa quốc gia cực đoan kiểu quân phiệt.[10] Họ cổ súy cho việc mở rộng Đế quốc Nhật Bản, bao gồm cả Thái Bình Dương và Đông Nam Á. Việc duy trì một đế chế như vậy, trải dài 4.800 km (3.000 dặm) từ Trung Quốc đến đảo Midway, quy định một lực lượng hạm đội đáng kể có khả năng duy trì sự kiểm soát toàn bộ lãnh thổ của Đế quốc Nhật.[11] Cho dù mọi chiếc thiết giáp hạm của Nhật Bản trước lớp Yamato đều được chế tạo trước năm 1921, tất cả chúng đều được tái cấu trúc hay hiện đại hóa đáng kể, hoặc cả hai, trong những năm 1930.[12] Cùng với những đặc tính mới khác, việc này cho phép chúng có tốc độ và hỏa lực được tăng cường, điều mà Nhật Bản dự tính sử dụng trong việc chinh phục và duy trì đế chế họ hằng khao khát.[13] Khi Nhật Bản rút khỏi Hiệp ước Hải quân London vào năm 1934, họ không còn phải thiết kế tàu chiến trong những giới hạn của những hiệp định trước đây, và vì vậy được tự do chế tạo tàu chiến lớn hơn các thế lực hải quân chủ yếu khác.[14]

Khi Nhật Bản cần phải duy trì các thuộc địa cung cấp các nguyên liệu thiết yếu dẫn đến khả năng phải đối đầu với Hoa Kỳ,[15] quốc gia này trở thành đối thủ tiềm tàng chủ yếu của Nhật. Tuy nhiên, Mỹ lại sở hữu một tiềm năng công nghiệp lớn hơn đáng kể so với Nhật Bản, chiếm 32,2% sản lượng công nghiệp toàn thế giới so với 3,5% của Nhật Bản.[16] Hơn nữa, nhiều nhà lãnh đạo trong Quốc hội Mỹ tuyên bố "sẽ áp đảo Nhật Bản bằng sức mạnh gấp ba lần trong cuộc chạy đua vũ trang hải quân".[17] Vì vậy, nền công nghiệp Nhật Bản không thể nào hy vọng sẽ cạnh tranh lại được khả năng công nghiệp của Hoa Kỳ,[9] nên các đòi hỏi về thiết kế quy định rằng từng chiếc thiết giáp hạm mới sẽ vượt trội hơn hẳn so với đối thủ tương đương bên Hải quân Mỹ.[18] Mỗi chiếc trong số tàu được hoạch định có khả năng tiếp chiến với nhiều tàu chiến chủ lực đối phương cùng một lúc, làm giảm bớt nhu cầu sử dụng nguồn lực công nghiệp vào việc chế tạo tàu chiến như của Hoa Kỳ.[9] Nhiều người trong Bộ tư lệnh Quân đội và Hải quân Nhật hy vọng những con tàu như vậy sẽ đe dọa và thuyết phục Mỹ nhân nhượng cho vấn đề Nhật Bản bành trướng tại khu vực Thái Bình Dương.[19]

Các nghiên cứu ban đầu về một lớp thiết giáp hạm mới bắt đầu được tiến hành sau khi Nhật Bản rút khỏi Hội Quốc Liên và từ bỏ các cam kết trong các hiệp ước hải quân Washington và London; từ năm 1934 đến năm 1936, 24 đề án sơ thảo đã được đưa ra. Các đề án ban đầu này khác nhau đáng kể về vũ khí, động lực, tầm hoạt động và vỏ giáp. Cỡ pháo chính dao động giữa 460 mm (18,1 inch) và 410 mm (16,1 inch), trong khi dàn pháo hạng hai kết hợp những số lượng khác nhau của các cỡ pháo 155 mm (6,1 inch), 127 mm (5 inch) và 25 mm. Trong hầu hết các bản thiết kế, động lực được lựa chọn là sự kết hợp lai giữa diesel- turbine hơi nước, chỉ có một phương án sử dụng động cơ diesel thuần túy và một thiết kế nữa chỉ dùng turbine. Tầm hoạt động được đề nghị thấp nhất là 11.000 km (6.000 hải lý) ở thiết kế A-140-J2 cho đến cao nhất là 17.000 km (9.200 hải lý) trong thiết kế A-140A và A-140-B2 ở tốc độ 33,3 km/h (18 knot). Độ dày lớp vỏ giáp cũng thay đổi cho phép bảo vệ con tàu chống lại hỏa lực của hải pháo từ 410 mm cho đến 460 mm.[20]

Sau khi tất cả các đề án được xem xét, hai trong số chúng được cho là có khả năng hiện thực, A-140-F3 và A-140-F4. Khác biệt chủ yếu của chúng là ở tầm hoạt động 9.075 km (4.900 hải lý) so với 13.300 km (7.200 hải lý) ở vận tốc 29,6 km/h (16 knot), chúng được sử dụng trong việc nghiên cứu sơ bộ cuối cùng, vốn được hoàn tất vào ngày 20 tháng 7 năm 1936. Bản thiết kế cuối cùng được hoàn tất vào tháng 3 năm 1937,[21] và được Chuẩn Đô đốc Fukuda Keiji chấp thuận cho tiến hành.[22] Trong thiết kế sau cùng này, tầm hoạt động lên đến 7.200 hải lý cuối cùng được chọn, và kiểu động lực lai diesel-turbine hơi nước bị loại bỏ để chọn turbine hơi nước. Động cơ diesel bị loại bỏ khỏi thiết kế do những vấn đề liên quan đến động cơ trên lớp tàu tiếp liệu tàu ngầm Taigei.[21] Động cơ của chúng, vốn tương tự như kiểu sẽ được lắp trên những chiếc thiết giáp hạm mới, do "lỗi thiết kế căn bản", đòi hỏi "những nỗ lực sửa chữa và bảo trì đáng kể"[23] mới giữ cho chúng hoạt động được.[23] Hơn nữa, nếu động cơ bị hỏng hoàn toàn, lớp vỏ giáp dày đến 200 mm (8 inch) bảo vệ khu vực hầm máy sẽ ngăn trở đáng kể các nỗ lực thay thế chúng.[24]

Thiết kế cuối cùng có một trọng lượng rẽ nước tiêu chuẩn 64.000 tấn và trọng lượng rẽ nước khi đầy tải là 69.988 tấn,[25] làm cho chúng trở thành những thiết giáp hạm lớn nhất từng được thiết kế, và cũng là thiết giáp hạm lớn nhất từng được chế tạo. Vũ khí trang bị cho dàn pháo chính gồm chín khẩu hải pháo 460 mm (18 inch) gắn trên ba tháp pháo ba nòng, mỗi chiếc còn nặng hơn cả một tàu khu trục của những năm 1930.[22] Các thiết kế này được cấp chỉ huy tối cao của Hải quân Nhật chấp thuận,[26] cho dù có nhiều sự phản đối từ các phi công hải quân, những người đã đòi hỏi phải chế tạo những tàu sân bay hơn là thiết giáp hạm.[27][28] Có tổng cộng năm chiếc thiết giáp hạm lớp Yamato được lên kế hoạch.[9]